ClawGym II: Exploring Black-Box RL on Agent Harness
ClawGym II：在 Agent Harness 上探索黑盒强化学习
🧭 Agent 黑盒 RL 训练 ★ 深度解读
Gaoling School of Artificial Intelligence, Renmin University of China · IQuest Research
提出统一黑盒 RL 框架，通过不透明 harness 稳定规模化优化通用 Agent，并支持混合 harness 联合训练
📌 工作参考价值（4 点）
- 把生产 harness 直接当 rollout engine，而不是重写 agent loop：电商/广告/搜索推荐中的 Agent 常运行在复杂编排系统里，重写会丢失上下文管理、重试、工具调度等关键行为。可以在模型服务边界加 proxy 拦截所有模型调用，以 token-in-token-out 记录真实推理轨迹，再拿去做 RL 训练，避免训练-推理不一致。
- 用 prefix tree 恢复分叉、去重的多轮轨迹：同一 rollout 可能因 compaction、subagent、重试产生大量共享历史。组织成前缀树后，只优化 main trajectories，过滤 dead leaves 和过分支 rollout，能显著降低噪声、提升训练效率；推荐/搜索 Agent 的多轮交互同理适用于这种树结构消重。
- 引入 token-level importance sampling 校正 rollout 与训练引擎概率差异：训练和推理引擎即使同一模型也可能因数值精度、并行方式产生 log-prob 偏差，直接优化会带 off-policy 噪声。加一个截断的 token 级 IS ratio 是低成本、易迁移的稳定性 trick。
- mix-harness 训练可提升跨执行系统泛化：如果业务中同一策略会跑在不同工具接口、不同上下文管理或不同编排系统上，可把同一 task 与多个 harness 配对，按 task-harness pair 做分组 advantage 归一化，再联合梯度更新，避免策略过度绑定单一系统。